G36 sử dụng cơ chế nạp đạn bằng khí nén với hệ thống trích khí ngắn, pít ton nối gián tiếp với khóa nòng thông qua thanh truyền động nằm trong một lò xo, pít ton này sẽ xả lượng khí trích hướng về phía trước chứ không hướng về phía xạ thủ. khóa nòng xoay của khẩu súng có 7 móc khóa viên đạn cố định vào khoang chứa đạn. Nòng súng của G36 được thiết kế dưới dạng gắn tự do (không tiếp xúc với bất kì bộ phận nào khác của súng ngoài khoang chứa đạn và bộ phận trích khí) và được mạ crôm để hạn chế việc bị ăn mòn. Nút kéo lên đạn nằm phía trên thân súng dưới hệ thống nhắm khi cần sử dụng xạ thủ có thể chỉ nút kéo về bên trái hay bên phải để thuận tiện cho mình, khi không cần thiết nút kéo có thể kéo thẳng ra dọc theo thân súng cho đỡ vướng. Các vỏ đạn rỗng sẽ được nhả ra ngoài qua một khe phía bên phải.

Nút chọn chế độ bắn được đặt ở cả hai bên súng nằm sau cò súng. Súng có ba chế độ là "S" là khóa an toàn, "E" bắn từng viên và "F" bắn tự động. Khi khóa an toàn thì cò súng sẽ được khóa giữ cố định không cho di chuyển.

Tay cầm và hầu hết những chi tiết bọc ngoài của khẩu súng được làm bằng bằng vật liệu nhựa tổng hợp cao phân tử và chịu lực cao để giảm trọng lượng, thép được gia cố vào ở những nơi cần thiết. Tay cầm cò súng có sáu rãnh để có thể dễ dàng cầm nắm hơn. Tất cả các chi tiết của khẩu súng đều được gắn với nhau bởi các đinh ghim vì thế có thể tháo rời và ráp lại khẩu súng mà không cần đến công cụ. Báng súng được làm dạng khung có thể gấp lại để tiết kiệm không gian khi di chuyển, phần cuối báng súng có khoang trống để chứa các dụng cụ làm sạch. G36 có thể gắn chân chống chữ V để việc tác chiến được thuận tiện hơn hoặc có thể gắn ống phóng lựu 40 mm AG36.

G36 sử dụng loại đạn 5.56×45mm tiêu chuẩn của NATO. Hộp đạn của G36 làm bằng nhựa chịu lực và được thiết kế để có gắn cùng nhau mà không cần dụng cụ hỗ trợ. Ngoài ra một loại hộp đạn tròn kép cũng được chế tạo với sức chứa là 100 viên. Súng có thể gắn thêm các linh kiện hỗ trợ như bộ phận chống chớp sáng hay bộ phận hội tụ khí nén để dùng cho lựu đạn phóng từ nòng súng. Súng có thể lắp thêm lưỡi lê một cách nhanh chóng để cận chiến.